06. 注意力概述

真 - 序列到序列模型处理输入的方式是一次性查看整个输入序列

假 - 序列到序列模型的原理是一次将输入序列的一个元素输送到编码器中

无法使用单词嵌入

从编码器传递到解码器的语境矩阵的大小是固定的，这是个瓶颈问题

难以对长的序列进行编码并难以回忆长期依赖项

固定大小 - 单个向量

取决于输入序列的长度